Nghĩa trang Novodevichy được chính thức thành lập năm 1898 khi người ta nhận thấy rằng có quá nhiều ngôi mộ được đặt trong khuôn viên tu viện. Một trong những nhân vật nổi tiếng đầu tiên được chôn cất tại nghĩa trang là nhà văn Anton Pavlovich Chekhov, bia mộ của ông là tác phẩm của kiến trúc sư nổi tiếng Fyodor Shekhtel.

Ngày nay, Nghĩa trang Novodevichy là nơi an nghỉ của rất nhiều nhà văn, nhạc sĩ, nhà soạn kịch và thi sĩ Nga cũng như Liên Xô trước đây. Ngoài ra, rất nhiều diễn viên, nhà chính trị, nhà khoa học và các Anh hùng Liên bang Xô viết cũng được chôn cất tại nghĩa trang này. Năm 2007, nghĩa trang là nơi an nghỉ của hai người Nga nổi tiếng nhất qua đời trong năm này, đó là nghệ sĩ cello Mstislav Rostropovich và tổng thống Liên bang Nga Boris Yeltsin.

Nghĩa trang gồm hai phần phía Đông và phía Tây, khuôn viên được thiết kế giống một công viên với nhiều cây xanh và những điểm nhấn là các nhà nguyện nhỏ và các đài tưởng niệm được điêu khắc công phu. Tác giả của các đài tưởng niệm này cũng như của nhiều ngôi mộ là các nhà điêu khắc nổi tiếng như Sergey Konenkov, Vera Mukhina, Ivan Shadr hay Yevgeny Vuchetich.